A Matryoshka Hierarchical RAG for Efficient Multi-Hop Question Answering
Matryoshka 层次化 RAG 实现高效多跳问答
🧭 层次化 RAG · Matryoshka 与实体预算 ★ 深度解读
Polytechnic University of Marche · University of Modena and Reggio Emilia
结合 Matryoshka 嵌套表示与层次聚类 DAG，用实体预算与锚定控制实现高效多跳检索，在三个多跳 QA 基准上取得最佳质量与效率
📌 工作参考价值（4 点）
- 用 Matryoshka embedding 做分层索引替代重型图索引：电商商品/内容知识库可按类目→子类目→商品构建层次聚类，上层用低维前缀（如 64/128 维）、底层用全维（768 维），响应时间比 FAISS 全维检索降低约 35-47%，聚类质量不降。无需 LLM 摘要或 KG 构建，离线成本比 GraphRAG/LightRAG 低几个数量级。
- 实体预算迭代检索替代 LLM planning：在商品多跳场景（如“某系列配件的兼容型号”）中，用查询和已检索文档的实体数量控制每轮检索文档数，用实体 Jaccard 重排候选，避免多次 LLM 调用，同时保持多跳覆盖能力。可迁移到 Agent 的检索工具中，降低 query 成本。
- 锚定机制防 query drift：迭代检索时动态提高原始 query 权重 β_t = |R_{t-1}|/K，平衡累积上下文和原问题，防止语义漂移。在 Agent 多轮检索或 PRF 场景中可直接复用，作为轻量正则。
- p-nearest 冗余覆盖容错：每个节点关联多个父簇（p=2）可缓解贪婪自顶向下无回溯导致的漏检；在类目体系不完美或边界模糊的电商知识库中，保留多条路径能提高召回鲁棒性。